Cuộc thám hiểm được công nhận đầu tiên đối với quần đảo đã được tiến hành vào năm 1873 bởi các nhà thám hiểm Karl Weyprecht và Julius von Payer của Đoàn thám hiếm Bắc Cực Áo-Hung, trong khi các tàu của họ bị tắc trong băng khi tìm một tuyến đường đông bắc để sang phương Đông. Sau khi thám hiểm phần phía nam của quần đảo, họ đã lấy tên của hoàng đế Áo-Hung là Franz Joseph I để đặt cho quần đảo nhằm bày tỏ lòng tôn kính. Những người Na Uy tên là Fridtjof Nansen và Hjalmar Johansen đã đi qua quần đảo vào khoảng năm 1895–96 sau khi hủy bỏ nỗ lực tiếp cận vùng cực. Với sự trung hợp ngẫu nhiên, họ gặp nhà thám hiểm người Anh là Frederick George Jackson tại đảo Northbrook vào năm 1896.

Năm 1914, một nhà hàng hải người Nga Valerian Albanov cùng một thủy thủ của ông là Alexander Konrad, là những người sống sót duy nhất trong đoàn thám hiểm xấu số Georgy Brusilov tại mũi Flora trên đảo Northbrook, nơi họ biết rằng Frederick George Jackson đa xd]j phòng và xây một túp lều trong một cuộc thám hiểm trước. Albanov và Konrad đã được tàu Saint Foka của Georgy Sedov giải cứu kịp thời, trong khi họ đang chuẩn bị để ứng phó với mùa đông. Cảng ngộ tuyệt vọng của họ được chép trong cuốn nhật ký được xuất bản của Albanov, Trên vùng Đất của Cái Chết trắng.

Với việc đưa vào các thuyền động cơ hơi nước lớn hơn, một số cuộc thám hiểm đã được tiến hành tại quần đảo từ các thập kỷ cuối của thế kỷ 19, với trên 80% xuất phát từ Na Uy. Vào cuối thập kỷ 1920, cả Liên Xô và Na Uy đều tuyên bố chủ quyền đối với quần đảo. Ngươì Na Uy gọi quần đảo là "Fridtjof Nansen Land". Liên Xô tuyên bố chủ quyền một hình quạt trong vùng Bắc Cực và bao gồm cả Zemlya Frantsa-Iosifa và đảo Victoria trong một sắc lệnh vào ngày 15 tháng 4 năm 1926. Na Uy được thông báo vào ngày 6 tháng 5 và chính thức phản đối vào ngày 19 tháng 12, tranh cãi về tuyên bố của Liên Xô.

Trong những năm sau, chính quyền Na Uuy đặt nhiều nỗ lực và việc giành lại đảo Victoria và Zemlya Frantsa-Iosifa. Năm 1929, Lars Christensen của Sandefjord, một ông trùm săn cá voi đã thám hiểm và sáp nhập đảo Bouvet và đảo Peter I ở Nam Cực, đã tài trợ cho một cuộc thám hiểm của hai tàu lớn, S/S Torsnes và M/C Hvalrossen. Sau khi khởi hành từ Tromsø, thủy thủ đoàn nhận được hướng dẫn chi tiết để dựng nên một trạm vô tuyến điện trân đất Franz Josef, và cũng tuyến bố chủ quyền với đảo Victoria nhân danh Christensen. Mục tiêu là để giành được chỗ đứng pháp lý trên một phần quần đảo trước Liên Xô. Đoàn thám hiểm đã không tiếp cận được đất Franz Josef Land do thời tiết băng giá gay gắt, và trong khi chờ đợi thời tiết tốt hơn, họ đã bị tàu phá băng Georgij Sedov của Xô viết vượt qua.

Ngày 29 tháng 7 năm 1929, Giáo sư Schmidt của đoàn thám hiểm Sedov đã dương quốc kỳ Xô viết tại vịnh Tikaya, đảo Hooker, và tuyên bố rằng Zemlya Frantsa-Iosifa là một phần lãnh thổ Liên Xô. Na Uy đã không chính thức tranh cãi về việc Liên Xô sáp nhập Đất Franz Josef, song vẫn tiếp tục các nỗ lực của mình trên vấn đề đảo Victoria. Tranh chấp đảo Victoria kết thúc khi Liên Xô sáp nhập đảo vào năm 1932.

Tháng 7 năm 1931, một khí cầu Đức đã đánh dấu một sự kiện quan trọng trong thám hiểm địa cực Nga. Graf Zeppelin đi từ Berlin đến đảo Hooker, qua Leningrad (St. Petersburg). Nó giao 300 kg (650 lbs) thư kỉ niệm và gặp tàu phá băng Malygin. Sau khi bày về phía đôn dọc theo vĩ tuyến 81 đến Severnaya Zemlya, khí cầu trở lại đảo Hooker và bắt đầu một cuộc khảo sát từ trên không đối với quần đảo, bay xa về phía bắc đến đảo Rudolf.

Trong những năm Chiến tranh Lạnh, các vùng cực là vùng đệm nóng bỏng giữa Liên Xô và Hoa Kỳ, và nhiều điểm ở Bắc Cực trở thành Arctic các vị trí chiến lược cực kỳ quan trọng. Quần đảo được tuyên bố là một khu an ninh quốc gia từ thập niên 1930 cho đến khi Liên Xô sụp đổ vào năm 1991, và do đó hạn chế người nước ngoài tiếp xúc. Một sân được xây ở Greem Bell được phục vụ như một căn cứ cho các máy bay ném bom của Liên Xô, và các lần tập dượt thường diễ ra giữa Đất Franz Josef, lục địa và Novaya Zemlya. Mặc dù quần đảo là một điểm quân sự nhạy cảm song đã có một tàu du lịch đến thăm vào năm 1971.

Năm 2005, nhà địa lý học người Áo Christoph Höbenreich đã dẫn đầu đoàn thám hiểm Payer-Weyprecht-Memorial đến Zemlya Frantsa-Iosifa. Giáo hội Chính thống giáo Nga có kế hoạch xây một nhà thờ cực bắc của thế giới tại Franz Joseph. Nó được đặt theo tên của Thánh. Nicholas. Thông báo của Giám mục Tikhon ở Arkhangelsk và Kholmogory vào tháng 8 năm 2007.